Thị xã này được thành lập ngày 8 tháng 10 năm 1971 với tên gọi thị xã Lai Châu, gồm có thị trấn Lai Châu, xã Lay Cang (trừ bản Pháy Mảy sáp nhập vào xã Xá Tổng), xã Lay Tở (trừ bản Nậm Ty sáp nhập vào xã Nậm Hàng) và bản Nậm Cản (xã Lay Nưa) của huyện Mường Lay.

Trước ngày 18 tháng 4 năm 1992, thị xã là tỉnh lỵ tỉnh Lai Châu cũ.

Trước khi chia tách tỉnh, thị xã Lai Châu cũ có diện tích 8.436 ha, 10.755 nhân khẩu và có 3 đơn vị hành chính gồm 3 phường: Na Lay, Lê Lợi và Sông Đà.

Sau khi chia tách tỉnh Lai Châu cũ thành hai tỉnh Lai Châu (mới) và Điện Biên vào năm 2003, phần lớn thị xã Lai Châu cũ thuộc địa giới hành chính của tỉnh Điện Biên, riêng phường Lê Lợi thuộc địa giới hành chính của tỉnh Lai Châu mới và giải thể thành xã Lê Lợi thuộc huyện Sìn Hồ (nay xã này thuộc huyện Nậm Nhùn).

Ngày 2 tháng 3 năm 2005, chuyển xã Lay Nưa của huyện Mường Lay về thị xã Lai Châu quản lý. Đồng thời, thị xã Lai Châu đổi tên thành thị xã Mường Lay (do trùng tên với thị xã Lai Châu thuộc tỉnh Lai Châu, nay là thành phố Lai Châu), huyện Mường Lay đổi tên thành huyện Mường Chà như ngày nay.